1
Lanskap Generative AI Tingkat Lanjut
PolyU COMP5511Lesson 11
00:00

Lanskap Generative AI Tingkat Lanjut telah berevolusi dari model monolitik yang terisolasi menjadi ekosistem berlapis yang didefinisikan oleh Compound AI Systems. Pergeseran ini meninggalkan prediksi token probabilistik sederhana menuju sistem yang mengorkestrasi foundation models (FM), plugin modular, dan sintesis lintas-modal.

Komputasi / Infrastruktur CloudLLMDiffusionAudio / KodeLapisan Orkestrasi & Agen

Taksonomi Tumpukan Generatif

  • Lapisan Infrastruktur: Tulang punggung perangkat keras (GPU/TPU) dan layanan cloud yang menyediakan komputasi masif yang dibutuhkan untuk pelatihan dan inferensi berkecepatan tinggi.
  • Lapisan Model: Foundation Models (FM) seperti GPT-4, Llama 3, dan Stable Diffusion yang berperan sebagai mesin khusus untuk berbagai modalitas.
  • Lapisan Orkestrasi: Kerangka kerja yang mengelola logika, aliran data, dan pengambilan informasi, mentransisikan model dari bobot "beku" menjadi sistem dengan Kesadaran Kontekstual Real-time.

Konvergensi Modalitas

Tren teknis ini berfokus pada penyatuan arsitekturโ€”terutama model Transformer dan Diffusionโ€”yang memungkinkan ruang laten bersama. Hal ini menghasilkan antarmuka terpadu tunggal di mana teks, gambar, dan video dimanipulasi sebagai aliran informasi yang berkelanjutan, direpresentasikan secara matematis sebagai pemetaan antara manifold laten yang berbeda $M_{text} \leftrightarrow M_{visual}$.

Evolusi Struktural
Kita bergerak dari model "Closed-Book" yang hanya mengandalkan parameter data pelatihan $\theta$, menuju sistem "Open-Book" yang menggunakan keadaan lingkungan eksternal $E$ untuk menyelesaikan tugas penalaran kompleks melalui $P(y|x, E)$.
Implementasi Python